Où en est la recherche en matière de « désapprentissage machine » ? Ken Ziyu Liu, doctorant en informatique à Stanford, est l’auteur d’une synthèse à ce sujet. Nous en reprenons ici quelques éléments.
Le désapprentissage, tel qu’on l’entend dans ce contexte, consiste à éliminer, sur un modèle, l’influence de telle ou telle donnée d’entraînement.
Le RGPD, avec la notion de droit à l’oubli, fut un moteur des travaux dans ce domaine. Six ans plus tard, le périmètre s’est étendu, a fortiori avec le boom des LLM. Ressortent deux grandes catégories de finalités. D’un côté, la révocation d’accès (désapprentissage de données privées et/ou sous copyright). De l’autre, la correction des modèles (toxicité, biais, connaissances indésirables…).
Pour implémenter la révocation d’accès, on pourrait tout simplement réentraîner un modèle à partir de zéro. Mais le processus n’est pas forcément très viable sur le plan économique. D’où l’émergence de techniques de désapprentissage.
Le désapprentissage exact vise à produire un modèle qui se comporte comme s’il avait été entraîné sans les données concernées.
L’approche SISA (Sharded, Isolated, Sliced and Aggregated training) va dans ce sens. Elle consiste à diviser le jeu de données d’entraînement en n sous-ensembles indépendants. Et à les utiliser pour entraîner autant de modèles distincts, réunis lors de l’inférence. Le coût du désapprentissage est donc de 1/N – voire moins si on conserve des checkpoints.
Cette méthode présente plusieurs bénéfices. En premier lieu, l’algorithme est la preuve (on sait que les données désapprises sur un sous-ensemble n’ont pas affecté les autres). Ensuite, le désapprentissage devient un problème de précision, d’effacité. Il est donc plus simple à évaluer. En outre, SISA apporte une forme ...
[Courte citation de 8% de l'article original]